Hannibal là một trong những người con của Hamilcar Barca một nhà lãnh đạo người Carthage. Ông có một vài chị gái và 2 em trai là Hasdrubal Barca và Mago Barca. Những người anh rể của ông là Hasdrubal Ngay thẳng và vua Naravas xứ Numibia. Ông là một đứa trẻ khi hai chị gái lập gia đình và được các anh rể nuôi nấng trong khi cha ông chiến đấu trong cuộc chiến tranh lính đánh thuê và cuộc chiến tranh Punic chinh phục Iberia. Trong tên hiệu của Hamilcar Barca, các sử gia cho là tên họ của gia đình Hamilcar là Barca. Tuy nhiên, có cuộc tranh luận để xem tên riêng Barca (có nghĩa là "tia sét") đã được áp dụng cho riêng Hamilcar hay là cho cha truyền con nối. Nếu vậy, Hannibal và các em đều được gọi là 'Barca'.[9]

Sau thất bại của người Carthage trong cuộc chiến tranh Punic lần thứ nhất, Hamilcar đã ra đi để tìm kiếm vận may cho gia đình và người Carthage. Với tài trí và sự trợ giúp của Gades, Hamilcar bắt đầu cuộc chinh phục những bộ tộc ở bán đảo Iberia. Carthage lúc này đã trở thành một thành bang nghèo khó đến mức hạm đội của họ không thể vận chuyển quân đội của ông tới Iberia. Thay vào đó, Hamilcar đã phải hành quân vòng qua khu vực "Những cây cột của Hercules" và được chở qua eo biển Gibraltar.

Cha của Hannibal đã tham gia vào cuộc chinh phục xứ Tây Ban Nha. Ông đã hi sinh trong một trận đánh.[10] Anh rể của Hannibal là Hadrusbal nắm quyền chỉ huy quân đội với sự phục vụ của Hannibal như là một tướng lĩnh dưới quyền. Hasdrubal theo đuổi một chính sách của Carthage là củng cố mối quan tâm đối với Iberia, thậm chí ký kết một hiệp ước với Rome mà qua đó Carthage sẽ không mở rộng phía bắc sông Ebro trong khi người La Mã cũng không được mở rộng về phía nam. Hasdrubal cũng theo đuổi chính sách củng cố quyền lực của người Carthage thông qua mối quan hệ với các bộ tộc. Như một phần của chính sách, Hasdrubal bố trí cho Hannibal kết hôn với một công chúa Iberia tên là Imilce.

Sau khi Hasdrubal bị ám sát năm 221 TCN, Hannibal đã được tôn lên làm tổng chỉ huy bởi quân đội và được sự chấp nhận của chính quyền Carthage. Livy, một nhà La Mã học đã đưa ra miêu tả về chàng trai người Carthage trẻ tuổi:

[11]

Sau khi ông được thừa nhận là chỉ huy, Hannibal đã dành hai năm tiếp theo để củng cố địa vị của mình và hoàn tất việc chinh phục Hispania tới tận phía nam sông Ebro.[12] Tuy nhiên, La Mã, lo sợ sự tăng cường sức mạnh của Hannibal ở Iberia nên đã thiết lập liên minh với Saguntum, một thành bang nằm dọc theo sông Ebro về phía nam làm phên dậu bảo vệ cho họ. Hannibal nhận thức thấy điều này như là một sự vi phạm của các hiệp ước ký với Hasdrubal và do đó ông tiến hành vây hãm thành phố, sau 8 tháng thì hạ được thành. La Mã đã có những phản ứng rõ ràng với những vi phạm hiệp ước và đòi hỏi phải thực thi công lý đối với Carthage. Với sự coi trọng Hannibal cực lớn, chính quyền Carthage đã không ngăn cản chiến dịch của Hannibal. Và cuộc chiến tranh mà ông đề nghị đã được chấp nhận vào cuối năm. Hannibal đã xác định trọng tâm là đưa chiến tranh vào trung tâm của Ý và đã tiến hành cuộc hành quân băng qua Hispania và miền nam Gaul.